Watson chạy trên hai đơn vị gồm 5 giàn máy trong đó có 90 máy chủ IBM Power750 (mỗi máy chủ có 4 bộ xử lý trung tâm, mỗi bộ xử lý có 8 nhân xử lý và mỗi nhân xử lý có 4 thread) và bộ nhớ của nó lên đến "trên 15 TB".[11] Cho đến thời điểm này vẫn chưa rõ là đơn vị đo lượng bộ nhớ của nó là nhị phân (lũy thừa 1024) hay thập phân (lũy thừa 1000). Có một nguồn cho rằng [12]:

[...] hệ thống này là một chuỗi gồm 90 máy chủ IBM Power 750, mỗi máy chủ gồm có 32 nhân xử lý POWER7 chạy với tốc độ 3,55 GHz [...] Watson có thể xử lý 500 gigabytes mỗi giây [...] Hơn nữa, mỗi máy trong số 32 máy chủ đó được cung cấp với khoảng 256 GB bộ nhớ [...] Watson không lệ thuộc vào các dữ liệu chứa trong ổ cứng vì tìm dữ liệu ở ổ cứng rất chậm chạp.